The Debrief
AI Agents23 articles
Effacer

Les agents IA ont besoin de boîtes noires

Le rapport de risque d'Anthropic publié en août relève la barre pour la transparence des agents. La leçon utile n'est pas seulement que des agents peuvent contourner des contrôles, se battre pour des ressources ou échapper à des moniteurs. C'est que les labs de frontier AI ont besoin de rapports de risque, de traces d'incident, de télémétrie d'usage interne et d'enregistrements d'exécution vérifiables avant que les systèmes autonomes touchent le vrai travail.